语言模型既展示了定量的改进，又展示了新的定性功能，随着规模的增加。尽管它们具有潜在的变革性影响，但这些新能力的特征却很差。为了为未来的研究提供信息，为破坏性的新模型能力做准备，并改善社会有害的效果，至关重要的是，我们必须了解目前和近乎未来的能力和语言模型的局限性。为了应对这一挑战，我们介绍了超越模仿游戏基准（Big Bench）。 Big Bench目前由204个任务组成，由132家机构的442位作者贡献。任务主题是多样的，从语言学，儿童发展，数学，常识性推理，生物学，物理学，社会偏见，软件开发等等。 Big-Bench专注于被认为超出当前语言模型的功能的任务。我们评估了OpenAI的GPT型号，Google内部密集变压器体系结构和大型基础上的开关稀疏变压器的行为，跨越了数百万到数十亿个参数。此外，一个人类专家评估者团队执行了所有任务，以提供强大的基准。研究结果包括：模型性能和校准都随规模改善，但绝对的术语（以及与评估者的性能相比）；在模型类中的性能非常相似，尽管带有稀疏性。逐渐和预测的任务通常涉及大量知识或记忆成分，而在临界规模上表现出“突破性”行为的任务通常涉及多个步骤或组成部分或脆性指标；社交偏见通常会随着含糊不清的环境而随着规模而增加，但这可以通过提示来改善。
translated by 谷歌翻译
最近的工作发现，具有大量不同任务的多任务培训可以统一地改善看不见的目标任务的下游表现。相反，有关任务转移性的文献已经确定，中间任务的选择会严重影响下游任务绩效。在这项工作中，我们旨在解散多任务表示学习中任务的规模和相关性的影响。我们发现，平均而言，就任务数量而言，增加了多任务学习的规模，实际上比较小的多任务设置会导致更好的学习表示。但是，如果提前知道目标任务，那么对一组相关任务的训练就以降低的计算成本为大规模的多任务培训具有竞争力。
translated by 谷歌翻译
为了实现长文档理解的构建和测试模型，我们引入质量，具有中文段的多项选择QA DataSet，具有约5,000个令牌的平均长度，比典型的当前模型更长。与经过段落的事先工作不同，我们的问题是由阅读整个段落的贡献者编写和验证的，而不是依赖摘要或摘录。此外，只有一半的问题是通过在紧缩时间限制下工作的注释器来应答，表明略读和简单的搜索不足以一直表现良好。目前的模型在此任务上表现不佳（55.4％），并且落后于人类性能（93.5％）。
translated by 谷歌翻译
机器循环撰写旨在使人类能够与模型进行协作，以更有效地完成他们的写作任务。事先工作发现，为人类书面的草案或句子级持续存在有限，因为生成的文本往往偏离人类的意图。为了允许用户保留对内容的控制，我们训练重写模型，在提示时，修改用户原始草稿中的指定跨度的文本，以在文本中本地介绍本地的描述性和比喻元素。我们评估了在创造性图像标题任务上与人类合作的能力。通过亚马逊机械土耳其人的用户学习，我们的模型被评为比基线缺陷语言模型更有用。此外，第三方评估表明，与单独完成任务相比，用户在与模型合作时，用户编写更多描述性和比喻标题。
translated by 谷歌翻译
体现的代理需要能够在自然语言中互动理解任务描述，并提出适当的后续问题以获取必要的信息，以有效地成功完成各种用户的任务。在这项工作中，我们提出了一组对话框，用于建模此类对话框，并注释教学数据集，其中包括3,000多个位置，以任务为导向的对话（总计包含39.5k个话语），并具有对话框ACT。 Teach-da是对Dialog ACT的第一个大型数据集注释，用于具体任务完成。此外，我们在培训模型中证明了该注释的数据集在标记给定话语的对话框行为中的使用，预测给定对话框历史记录的下一个响应的对话框行为，并使用对话框行为指导代理商的非第二语言行为。特别是，我们对对话记录任务的教学执行执行的实验，该模型预测在体现任务完成环境中要执行的低级操作的顺序，证明对话框行为可以将最终任务成功提高2分，以提高最终任务成功率到没有对话行为的系统。
translated by 谷歌翻译
在人类空间中运营的机器人必须能够与人的自然语言互动，既有理解和执行指示，也可以使用对话来解决歧义并从错误中恢复。为此，我们介绍了教学，一个超过3,000人的互动对话的数据集，以完成模拟中的家庭任务。一个有关任务的Oracle信息的指挥官以自然语言与追随者通信。追随者通过环境导航并与环境进行互动，以完成从“咖啡”到“准备早餐”的复杂性不同的任务，提出问题并从指挥官获取其他信息。我们提出三个基准使用教学研究体现了智能挑战，我们评估了对话理解，语言接地和任务执行中的初始模型的能力。
translated by 谷歌翻译